在对地下地震成像的研究中，求解声波方程是现有模型中的关键成分。随着深度学习的发展，神经网络通过学习输入和方程解决方案之间的映射，特别是波动方程式，将神经网络应用于数值求解部分微分方程，因为如果要花很多时间，传统方法可能会很耗时解决了。以前专注于通过神经网络解决波动方程的工作考虑单个速度模型或多个简单速度模型，这在实践中受到限制。因此，受操作员学习的构想的启发，这项工作利用了傅立叶神经操作员（FNO）在可变速度模型的背景下有效地学习频域地震波场。此外，我们提出了一个与傅立叶神经操作员（PFNO）并行的新框架，以有效地训练基于FNO的求解器，给定多个源位置和频率。数值实验证明了OpenFWI数据集中使用复杂速度模型的FNO和PFNO的高精度。此外，跨数据集泛化测试验证了PFNO适应过分速度模型的。同样，在标签中存在随机噪声的情况下，PFNO具有强大的性能。最后，与传统的有限差异方法相比，PFNO在大规模测试数据集上接受了更高的计算效率。上述优势赋予了基于FNO的求解器的潜力，可以为地震波研究建立强大的模型。
translated by 谷歌翻译
图表自学学习（GSSL）铺平了无需专家注释的学习图嵌入的方式，这对分子图特别有影响，因为可能的分子数量很大，并且标签昂贵。但是，通过设计，GSSL方法没有经过训练，可以在一个下游任务上表现良好，而是旨在将其转移到许多人方面，从而使评估不那么直接。作为获得具有多种多样且可解释属性的分子图嵌入曲线的一步，我们引入了分子图表示评估（Molgrapheval），这是一组探针任务，分为（i）拓扑 - ，（ii）子结构 - 和（iii）和（iii）嵌入空间属性。通过对现有下游数据集和Molgrapheval上的现有GSSL方法进行基准测试，我们发现单独从现有数据集中得出的结论与更细粒度的探测之间存在令人惊讶的差异，这表明当前的评估协议没有提供整个图片。我们的模块化，自动化的端到端GSSL管道代码将在接受后发布，包括标准化的图形加载，实验管理和嵌入评估。
translated by 谷歌翻译
图神经网络〜（GNNS）是用于图表学习的有效工具。大多数GNN依靠递归邻里聚合方案，称为消息传递，因此其理论表达力仅限于第一阶Weisfeiler-Lehman测试（1-WL）。受到基于检索的模型和现成的高性能检索系统的成功的激励，我们提出了一种称为GraphRetReval的非参数和模型 - 敏捷方案，以增强现有的GNN模型。在GraphRetRieval中，与其地面真实标签相关的类似训练图被检索为可以与输入图表示共同利用的增强功能，以完成各种图形属性预测任务。特别是，为了有效地从检索的图中“吸收”有用的信息，并“忽略”可能的噪声，我们引入了基于自我注意的适配器，以明确了解输入图与其检索到的类似图之间的相互作用。通过在12个不同的数据集上尝试三个经典的GNN模型，我们证明了GraphRetReval能够为现有GNN模型带来实质性改进，而无需包括模型大小和预测效率。我们的工作还首先验证了检索增强图神经网络的可行性和有效性。
translated by 谷歌翻译
人工智能（AI）为简化Covid-19诊断提供了有前景的替代。然而，涉及周围的安全和可信度的担忧阻碍了大规模代表性的医学数据，对临床实践中训练广泛的模型造成了相当大的挑战。为了解决这个问题，我们启动了统一的CT-Covid AI诊断计划（UCADI），其中AI模型可以在没有数据共享的联合学习框架（FL）下在每个主机机构下分发和独立地在没有数据共享的情况下在每个主机机构上执行。在这里，我们认为我们的FL模型通过大的产量（中国测试敏感性/特异性：0.973 / 0.951，英国：0.730 / 0.942），与专业放射科医师的面板实现可比性表现。我们进一步评估了持有的模型（从另外两家医院收集，留出FL）和异构（用造影材料获取）数据，提供了模型所做的决策的视觉解释，并分析了模型之间的权衡联邦培训过程中的性能和沟通成本。我们的研究基于来自位于中国和英国的23家医院的3,336名患者的9,573次胸部计算断层扫描扫描（CTS）。统称，我们的工作提出了利用联邦学习的潜在保留了数字健康的前景。
translated by 谷歌翻译
在本文中，我们考虑了迭代机教学问题，教师根据当前迭代学习者顺序提供示例。与必须扫描整个池并在每次迭代中选择教学示例的先前方法相比，我们提出了一个标签综合教学框架，其中教师随机选择输入教学示例（例如，图像），然后合成合适的输出（例如，，标签）为他们。我们表明，此框架可以避免昂贵的示例选择，同时仍然可以获得指数的可行性。我们在本框架中提出了多种新颖的教学算法。最后，我们经验证明了我们框架的价值。
translated by 谷歌翻译
表示解开是表示有利于各种下游任务的代表性学习的重要目标。为了实现这一目标，已经开发了许多无监督的学习表示方法。但是，事实证明，没有使用任何监督信号的培训过程就不足以进行分解表示。因此，我们提出了一种新型的弱监督训练方法，称为SW-VAE，该方法通过使用数据集的生成因子，将成对的输入观测值作为监督信号。此外，我们引入了策略，以逐渐增加训练过程中的学习难度，以使训练过程平滑。如多个数据集所示，我们的模型对表示解散任务的最新方法（SOTA）方法显示出显着改善。
translated by 谷歌翻译
散布和不变的表示是代表学习的两个关键目标，并且已经提出了许多方法来实现其中的一个。但是，这两个目标实际上是相互补充的，因此我们提出了一个框架，以同时完成两个目标。我们引入了一个弱监督的信号，以学习解开表示的表示，该表示由三个拆分组成，分别包含预测性，已知滋扰和未知的滋扰信息。此外，我们结合了对比度的实施表示不变性的方法。实验表明，所提出的方法在四个标准基准上优于最先进的方法（SOTA）方法，并表明该方法可以具有更好的对抗性防御能力，而没有对抗训练的其他方法。
translated by 谷歌翻译
Causal representation learning has been proposed to encode relationships between factors presented in the high dimensional data. However, existing methods suffer from merely using a large amount of labeled data and ignore the fact that samples generated by the same causal mechanism follow the same causal relationships. In this paper, we seek to explore such information by leveraging do-operation to reduce supervision strength. We propose a framework that implements do-operation by swapping latent cause and effect factors encoded from a pair of inputs. Moreover, we also identify the inadequacy of existing causal representation metrics empirically and theoretically and introduce new metrics for better evaluation. Experiments conducted on both synthetic and real datasets demonstrate the superiorities of our method compared with state-of-the-art methods.
translated by 谷歌翻译
磁响应软机器人在磁场的帮助下实现可编程形状调节，并产生各种动作。磁性软机器人的形状控制基于由弹性基质中磁性颗粒的有序分布引起的磁各向异性。在以前的技术中，磁性编程与制造过程联接，并且不能修改磁性颗粒的取向，这为磁软机器人的设计和使用带来了限制。本文介绍了具有形状可编程功能的磁像素机器人。通过将NdFeB /镓复合材料封装成硅氧烷壳，制造具有晶格结构的热磁响应官能膜。基于热辅助磁化技术，我们实现了薄膜上的离散磁化区分布。因此，我们提出了一种磁编码技术来实现软件机器人的数学响应动作设计。使用这些方法，我们制备了基于折纸结构的几个磁力机器人。实验表明，通过磁编码技术可以灵活地调节机器人的行为模式。这项工作为软机器人的编程形状调节和运动设计提供了基础。
translated by 谷歌翻译
In this paper, we propose a robust 3D detector, named Cross Modal Transformer (CMT), for end-to-end 3D multi-modal detection. Without explicit view transformation, CMT takes the image and point clouds tokens as inputs and directly outputs accurate 3D bounding boxes. The spatial alignment of multi-modal tokens is performed implicitly, by encoding the 3D points into multi-modal features. The core design of CMT is quite simple while its performance is impressive. CMT obtains 73.0% NDS on nuScenes benchmark. Moreover, CMT has a strong robustness even if the LiDAR is missing. Code will be released at https://github.com/junjie18/CMT.
translated by 谷歌翻译